Repository navigation
[Cherry-Pick][Operator Mechanism]Add K-dim consistency check to matmul_grad InferMeta - #79839
Conversation
matmul_grad was routed through GeneralBinaryGradInferMeta, which only shares x/y meta with dx/dy and skips the contraction (K) dimension check that the forward MatmulInferMeta enforces. As a result the backward op silently accepted K-mismatched inputs that the forward rejects (returning results instead of raising). Add a dedicated MatmulGradInferMeta that replicates the forward K check and keeps the original share_meta behavior, and route the dense matmul_grad (dygraph / PIR / legacy static) and legacy_matmul_grad to it. Sparse matmul_grad has no transpose args and is left unchanged.
The K-dim check keyed on config.is_runtime, but the backward InferMeta is invoked with the default MetaConfig (is_runtime=true) even at graph-build time, so it wrongly rejected legal dynamic-shape graphs with a -1 dim (e.g. InputSpec([-1, -1])). A real runtime tensor never carries a -1 dim, so enforcing only when both contraction dims are concrete still catches every genuine K mismatch while allowing symbolic shapes.
Codecov Report✅ All modified and coverable lines are covered by tests. Additional details and impacted files@@ Coverage Diff @@
## release/3.4 #79839 +/- ##
===============================================
Coverage ? 100.00%
===============================================
Files ? 1
Lines ? 19
Branches ? 0
===============================================
Hits ? 19
Misses ? 0
Partials ? 0 ☔ View full report in Codecov by Harness. 🚀 New features to boost your workflow:
|
matmul_grad now routes its InferMeta through the new MatmulGradInferMeta, whose signature carries a MetaConfig argument. Add it to the generator allowlist so the PIR op build invokes it with phi::MetaConfig(false, false), satisfying the CI requirement that infermeta funcs taking MetaConfig stay in sync with op_build_gen.py.
75da5fb
Paddle-Bot Review Board (review完成)
Powered by Nyanpasu claude with Opus 5 默认推理级别, please check the suggestions carefully. |
| 'CSoftmaxWithCrossEntropyGradInferMeta', | ||
| 'CSoftmaxWithMultiLabelCrossEntropyGradInferMeta', | ||
| 'LSTMGradInferMeta', | ||
| 'MatmulGradInferMeta', |
There was a problem hiding this comment.
该白名单项是空操作,且与 devPR #79800 不一致。
_INFERMETA_NEED_META_CONFIG 唯一作用是让 PIR 生成的 build / infer_meta 代码在调用末尾追加 phi::MetaConfig(false, false)(op_build_gen.py 的 CREATE_INFER_META_FUNC_WITH_META_CONFIG_TEMPLATE,op_infermeta_func_gen.py 同理)。但本 PR 新增的 MatmulGradInferMeta(paddle/phi/infermeta/backward.cc 第 732-788 行)在第三个 commit 之后已完全不读取 config——判定条件是 K_lhs != -1 && K_rhs != -1,与 config.is_runtime 无关。因此注册后只是把默认 MetaConfig()(is_runtime=true)换成 MetaConfig(false, false),不产生任何行为差异;白名单里其余条目(如 MatmulInferMeta)都是真正使用 config 的函数。
另外,devPR #79800(已于 develop 合入,a48f1c3)并不包含本行,本 cherry-pick 仅此一处与 devPR 有差异,PR 描述中也未提及该文件,会造成 release/3.4 与 develop 的生成器白名单不一致,后续 cherry-pick 易产生冲突。
建议:若无实际依赖,删掉该行以与 devPR 保持一致(同时可考虑移除 MatmulGradInferMeta 中未被使用的 MetaConfig config 形参);若确有保留必要,请在描述中补充原因并同步回 develop。
|
/re-run all-failed |
PR Category
Operator Mechanism
PR Types
Bug fixes
Description
本 PR 修复
matmul_grad反向算子不校验收缩维(K 维)一致性导致的前后向契约不一致问题。前向matmul在MatmulInferMeta中会强制要求 X、Y 的收缩维相等,但反向matmul_grad复用了通用的GeneralBinaryGradInferMeta,只把 X、Y 的 meta 原样共享给dx、dy,跳过了这道校验,于是前向会拦截的 K 维不匹配输入,反向却照单全收。核心问题和结果可以概括为:GeneralBinaryGradInferMeta只做dx->share_meta(x)、dy->share_meta(y),没有任何形状约束。前向被PADDLE_ENFORCE_EQ(K_lhs, K_rhs)拒绝的 K 维不匹配组合,直接单独调用私有反向算子paddle._C_ops.matmul_grad时不会报错。MatmulGradInferMeta,复刻前向的收缩维一致性检查,同时保留原有的share_meta行为。matmul_grad在动态图、PIR 静态图、legacy 静态图三套 yaml 中各有定义,另有同根因的legacy_matmul_grad(前向legacy_matmul同样走MatmulInferMeta)。四条 dense 路径全部改为路由到MatmulGradInferMeta;稀疏matmul_grad无转置参数、属独立算子族,保持不动。1. matmul_grad 缺失 K 维一致性校验
问题
前向
MatmulInferMeta(paddle/phi/infermeta/binary.cc)按transpose_x/transpose_y定位 X、Y 的收缩维并强制相等:反向
matmul_grad的infer_meta却指向通用的GeneralBinaryGradInferMeta(paddle/phi/infermeta/backward.cc):它只抄形状、不校验收缩维,于是前向会拦的 K 维不匹配输入,反向不拦:
torch 对复原出的前向组合同样一律
RuntimeError: mat1 and mat2 shapes cannot be multiplied。这是 Paddle 自身前后向契约不一致:前向校验 K 维,反向InferMeta漏了这道校验。改动
paddle/phi/infermeta/backward.cc新增设备无关的MatmulGradInferMeta,复刻前向的收缩维定位与一致性检查,并保留原有share_meta:paddle/phi/infermeta/backward.h补充对应声明(末尾MetaConfig config = MetaConfig(),由代码生成自动追加)。ndims_x > 0 && ndims_y > 0的守卫,避免对空维索引越界;config.is_runtime与-1判断与前向保持一致,兼容静态图未知维。[M,0]·[0,N]),仅拒绝 K 维不匹配。修改后结果
matmul_grad时,K 维不匹配输入在进入 kernel 前明确抛出InvalidArgument,与前向matmul及 torch 一致;InferMeta,一处覆盖 CPU / GPU / oneDNN / XPU 全部后端,静态图编译期即可拦截;2. 覆盖全部 dense 反向路由
问题
matmul_grad的infer_meta路由分散在多套 yaml 中,若只改其中一处,其余执行模式仍不拦:paddle/phi/ops/yaml/inconsistent/dygraph_backward.yaml(动态图)paddle/phi/ops/yaml/inconsistent/static_backward.yaml(PIR 静态图)paddle/phi/ops/yaml/legacy/static_backward.yaml(legacy 静态图)此外
paddle/phi/ops/yaml/inconsistent/static_backward.yaml中的legacy_matmul_grad属同一根因——其前向legacy_matmul同样走MatmulInferMeta校验 K 维,反向也用GeneralBinaryGradInferMeta。改动
matmul_grad与 1 处legacy_matmul_grad的infer_meta由GeneralBinaryGradInferMeta/param : [x, y]改为MatmulGradInferMeta/param : [x, y, transpose_x, transpose_y];legacy_matmul_grad多一个alpha参数,但 K 维校验与alpha无关,复用同一MatmulGradInferMeta(alpha不参与 infer_meta);matmul_grad(paddle/phi/ops/yaml/sparse_backward.yaml)无transpose_x/transpose_y参数、走稀疏 kernel、属独立算子族,且本次问题场景均为 dense,保持不动。修改后结果
legacy_matmul的全部 dense 反向路径统一获得 K 维校验;修改后的总体行为
matmul_gradK 维不匹配(直调反向)InvalidArgument,对齐前向与 torchlegacy_matmul_gradK 维不匹配InvalidArgumentmatmul_gradGeneralBinaryGradInferMeta合法输入的结果不变;修改只影响原本被静默接受的 K 维不匹配反向请求。
devPR:#79800
是否引起精度变化
否